KITE:将检索构建为长期对话记忆的决策过程
🧭 Agent 长期记忆检索决策化
Memoket AI Research · Universität Stuttgart · Georgia Institute of Technology · Tsinghua University
KITE将长期对话记忆检索变成受控主题索引上的可检查决策过程,LoCoMo/LongMemEval-S准确率93.5%/86.0%,仅约1.6k tokens
📌 工作参考价值(3 点)
- 在电商客服/对话式推荐 Agent 里,长期记忆不要只依赖 embedding 相似度;可以维护一个受控的主题/商品/意图词汇表,把查询编译为显式检索计划,根据问题包含的时间、实体、主题条件去定位历史证据,提升可审计性。
- 对结构化主题索引遗漏的表面细节,用 BM25 等稀疏词法检索兜底,适合找回订单号、SKU、地址、优惠码等精确字符串,避免 embedding 模糊匹配丢失关键信息。
- 受控索引的动态扩展与合并可用于治理电商知识库和会话 topic;固定 lookup/ranking 执行路径可降低 LLM 调用成本,每题仅约 1.6k reader-context tokens,对高并发成本敏感的 Agent 场景有直接复用价值。
长时智能体记忆:互补式记忆构建与整合
🧭 Agent 长程记忆 · 混合存储与整合 ★ 深度解读
Microsoft
提出情节记忆+结构化关系记忆的混合存储,并通过离线聚类整合压缩16%以上记忆且性能几乎不降
📌 工作参考价值(4 点)
- 会话级记忆构建:电商客服/导购 Agent 可在 session 结束后批量抽取两类记忆,减少逐轮 LLM 调用,同时保留跨轮上下文;关系记忆采用 (实体, 关系, 客体, 时间戳, 来源上下文) 结构,便于后续查询、更新和溯源。
- 双存储分离检索:查询时同时检索情节记忆和关系元组,关系条目更短、预算内可多取,适合「用户历史偏好/订单/承诺」等电商 QA 场景;固定 top-k 且 k=10 已饱和,能省 token 和延迟。
- 离线 UMAP+HDBSCAN 聚类整合:定期对 embedding 聚类做 merge/delete,可压缩 16–34% 存储,适合长生命周期用户档案;min_cluster_size 取 5–10 能在压缩率和准确率间取得平衡。
- 关系记忆的 provenance/timestamp 设计可直接迁移到推荐系统的用户画像:不仅存「用户喜欢什么」,还存「何时为何说」,避免旧偏好覆盖新偏好。
ETAMem:面向长期对话智能体的异构记忆解耦与多视图对齐框架
🧭 Agent 长期记忆 · 多视图解耦 ★ 深度解读
Nankai University · Tiangong University · University of Edinburgh
将对话记忆拆分为事件、情感、时间三视图并自适应路由检索,显著提升长期记忆中的多跳与时间推理。
📌 工作参考价值(4 点)
- 在构建用户长期记忆画像时,不要只按语义或时间组织;可拆成「事件 / 偏好情感 / 时间」三个视图:事实类用 semantic embedding,偏好类用 affect embedding,时间类强制按 Session→Day→Week→Month 建索引,避免偏好信息混在事件里导致检索错配。
- Entropy-based routing 可作为低成本的 query 级记忆路由:对 query 和各视图 leaf summary 算相似度分布,用归一化熵判断信号集中程度,再分配检索预算。相比 LLM routing 更稳定、开销更低。
- 工程实现上值得复用:内部节点摘要用 pending-change counter + lazy update,减少 LLM 调用;维护阈值用 Otsu + EMA 根据相似度分布自适应校准,避免长期运行后树结构退化;leaf split/merge 是必要维护操作。
- 层级 beam search 中混合 semantic embedding 与 BM25 打分,对品牌名、商品名等 exact term 查询尤其有效,可迁移到电商客服/推荐解释的记忆召回场景。
OptionWorld:诊断 LLM 长期个人助手失败环节的基准
🧭 Agent 长期任务失败诊断基准 ★ 深度解读
University of British Columbia · University of Chicago · Independent Researcher · Princeton University
提出 OptionWorld 基准,追踪从信息获取到行动结果的完整链路,定位 LLM 长期助手跨天任务失败环节
📌 工作参考价值(4 点)
- 在构建长期 Agent(如电商售后助手、广告投放优化助手)时,应显式维护“未完成任务清单”,为每个任务记录已获取事实、下一步行动、截止时间和阻塞条件,而非仅依赖对话记忆。可借鉴论文中的 Task State 概念,将“已获取事实”与“已执行干预”分开跟踪。
- 失败分析显示 Agent 常将临时障碍(如等待某条记录)误当作永久限制,导致自我设限而停止行动。可在系统层面加入定期校验机制:对等待条件设置有效期,过期自动重试或升级,避免 Agent 永久等待。
- 提示词或工具设计中明确区分“允许询问”和“允许承诺/执行”,避免 Agent 因权限边界不清而放弃可采取的行动。可参考论文的权限说明纠正实验:仅澄清“禁止联系”是指禁止最终承诺而非禁止询问,即可恢复正确行为。
- 对于长期任务,采用 checkpoint 回放和最小干预(补充事实、行动提醒、权限澄清)进行诊断,帮助定位失败发生在信息获取、判断还是行动环节,从而针对性优化 prompt 或 memory 结构,而不是盲目增加上下文长度。
HABIT-Bench:评估智能体从长期弱证据中归纳用户习惯
🧭 Agent 记忆评估 · 隐式习惯归纳 ★ 深度解读
LUMIA Lab, School of Artificial Intelligence, Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory · Fudan University
四域基准显示现有 Agent 记忆方法准确率仅约 33%,复杂记忆流程不优于简单检索或历史压缩
📌 工作参考价值(4 点)
- 不要默认复杂记忆 pipeline 更优:在需要跨会话状态重构的长用户轨迹上,BM25/Dense RAG 等简单检索基线与 A-MEM、Mem0、MemOS、Letta 等记忆方法准确率接近,GLM 下 Full Memory 压缩历史甚至达到 41.98%,超过全部记忆方法。业务落地前应先验证 RAG/压缩历史强基线,避免过度设计。
- 区分“证据访问”和“决策正确性”:Oracle Evidence 提供标注证据后准确率仍只有 39.26%–58.25%,而 Oracle Habit State 可达 98%+。意味着即使召回相关行为,模型仍常错误应用习惯。电商/广告中需显式建模行为有效期、例外、边界和用户确认,不能把任意历史点击/对话当长期偏好。
- 记忆构建成本与查询成本高度不对称:A-MEM 构建 54.59 小时、107.80M tokens,查询仅 13.24 分钟、3.39M tokens。工程上要把历史预处理与在线推理分离,按记忆复用频率和更新需求评估 ROI,必要时用增量更新或压缩历史替代全量记忆抽取。
- 可迁移的负样本设计思想:将临时期外、已过期选择、未接受的建议、边界情况作为干扰项,能有效测出模型是否“过度个性化”。推荐系统评估可借鉴四选一 probe,测试模型在 scope、exception、temporal drift 下是否仍正确推荐。
RL引导的时间定位用于长程Agent记忆双通道检索
🧭 Agent长期记忆时间感知检索
Tsinghua University · Qiyuan Lab
用RL训练时间区间定位器,在检索阶段引入时间约束,缓解语义相似但时间不匹配记忆淹没目标证据
📌 工作参考价值(4 点)
- 在用户长历史记忆/RAG检索里,若用户行为或事件语义重复度高,不要只靠语义相似度,可加一个独立的"时间窗口预测"通道:先由轻量模型预测答案证据可能出现的时间区间,再作为过滤或重排条件。
- 检索决策本身是离散、不可微的,但可以用RL+复合奖励来优化:把仅有答案级别的稀疏监督,拆成对检索结果的时间命中、顺序等细粒度反馈,适合训练一个1.7B小模型而不是大模型。
- "语义召回 + 时间召回双通道合并,再按时间窗口邻近度重排"是一个低成本插件式方案,可直接用于Agent长期记忆、用户会话历史、订单/行为日志等RAG场景。
- 电商场景可迁移:例如用户问"我上次双11买的鞋是什么品牌",语义召回可能返回多个相似商品,用预测时间窗口截断或重排,能显著减少错误证据。
Madeleine:用模拟生活轨迹学习对话记忆的联想召回
🧭 Agent 长期记忆 · 联想检索 ★ 深度解读
Nanyang Technological University
用 LLM 离线模拟生活轨迹训练 query 侧 LoRA,零 LLM 在线实现对话记忆联想召回,插入 HyperMem 后 LoCoMo-Plus 达 66.6
📌 工作参考价值(4 点)
- 把 LLM 重推理离线蒸馏进 query encoder:业务中的对话/用户记忆召回若依赖 LLM 改写、图谱构建或读取时推理,可改为离线用 LLM 生成“用户状态变化/偏好迁移”监督样本,训练轻量 query-side LoRA;在线只算一次向量,省掉数百到上千次 LLM 调用和大量上下文,适合高 QPS 的推荐/客服场景。
- 复用 frozen 向量库,即插即用:新分数 s(q,m)=cos(E(q),E(m))+cos(Eθ(q),E(m)) 等价于用单个 query 向量 E(q)+Eθ(q) 检索;不改记忆索引、不写入 LLM,迁移成本极低。可直接给现有向量召回的 query tower 加 residual adapter,保留内容相似度同时补学隐性关联,类似搜索/推荐 query 侧增强。
- 训练数据生成与负采样细节:用 LLM 模拟“生活轨迹”产生 cue-trigger 对,要求 trigger 不得提及或暗示 cue 主题;用 same-source negatives + near-duplicate masking,成本仅几美元/3万条。电商可模拟“用户长期状态→后续需求”或“偏好变化”生成训练对,绕过真实数据稀缺与标注困难。
- 不要对隐性关联用 cross-encoder reranker:论文中 reranker 反而显著掉点(52.4→40.9/31.9),因为 cue 与 trigger 表面不匹配、跨编码器按匹配度打分天然不利。关联性召回的关键应在召回层习得,而非精排层再判断语义匹配。
记忆系统 Mnemon:原始记录、快速判断、慢思考
🧭 Agent 记忆系统 · System 1/2 分工 ★ 深度解读
用 System 1 决策模型在读取时批量判断原始记录,后台只建索引,以 <4k tokens 上下文在 LoCoMo 达 91.7%
📌 工作参考价值(4 点)
- 在电商推荐 Agent 中,保留用户原始行为/对话记录,不在写入时抽取事实或建图谱;后台定期构建 topic timelines(用户关注点变化)、value histories(偏好值变化,如价格阈值、品类偏好)、standing instructions(用户明确要求,如“不要推已购买”),并链接回原始记录。读取时用小型决策模型批量判断哪些记录与当前请求相关、是否过期、满足哪个需求,只把少量相关记录喂给 LLM,大幅降低回答上下文和成本。
- 将记忆读取拆成 System 1/System 2:System 1 用廉价决策模型对候选记录做独立 yes/no 判断(是否相关、是否过期、满足哪个信息需求),System 2 仅写搜索查询、命名需求、生成回答。可以借鉴到推荐 Agent 的检索/过滤架构:用轻量模型粗筛候选池,LLM 只做高价值规划和生成,避免 LLM 逐条判断候选的延迟和成本。
- 引入固定预算和显式规则:view 大小、pool 大小、循环轮数、判断阈值等。规则只依赖判断顺序和二分结果,不依赖校准,因此可以替换决策模型而无需重新调参。工程上可让系统在长历史上保持近似恒定成本(从 100K 到 10M tokens 成本仅增长 1.11 倍)。
- 评估时使用有效成本指数 ECI = (1-accuracy) + context/full_context_cost,统一衡量错误和上下文代价,适合线上 Agent 对比模型/记忆策略,避免只优化准确率而忽略成本。
TemplateCraft:智能体驱动的视觉模板生成
🧭 多智能体视觉模板生成与反馈修订 ★ 深度解读
Peking University · Kuaishou Technology
多智能体系统将自然语言创意转化为可复用的客户端视觉模板,通过 Planner-Evaluator 反馈回滚与记忆提升生成成功率
📌 工作参考价值(4 点)
- 阶段级回滚机制:Evaluator 先定位最早需要修改的阶段(plan / material / effect workflow),再定向修订,只重跑下游阶段;在电商素材/广告模板生成流水线中可减少全量重试成本,避免单次失败就丢弃整个流程。
- 持久资产与用户输入分离:将 style reference 等持久资产打包进模板,用户只替换输入,显式要求生成并使用持久资产能提升跨输入风格一致性;生成式广告创意/商品模板可复用这一设计,把品牌视觉资产固化到模板内部。
- 长短期记忆配合小模型:Evaluator 使用长期记忆跨任务存储错误与修订轨迹,上下文接近阈值时压缩为摘要;这种 Reflexion 式经验复用让较小开源模型在复杂多阶段任务上逼近 GPT-4o Planner-only,适合生产环境控制推理成本。
- 模板级评测设计:TemplateBench 每个任务带 5 个固定测试输入,评估生成成功率、adherence、reusability 和跨输入风格一致性;可借鉴到推荐/创意生成场景,不只评单次生成质量,还要评模板或策略在不同用户输入下的泛化复用。
DolphinBench:刻画智能体记忆的帕累托前沿
🧭 Agent 记忆评估基准
Mem0
首个通过任务完成直接评估智能体记忆,并要求报告成本与延迟的基准
📌 工作参考价值(3 点)
- 任务完成式记忆评估:在电商客服/导购 Agent 中,不要只测“用户偏好是什么”,而让 Agent 执行修改未支付订单、按用户历史沟通风格回复等任务,考察隐式的记忆触发与检索能力。
- 强制成本与延迟上报:上线 Agent 记忆模块时,同时记录 token 成本、检索步数、p50/p95 延迟,避免通过全量回放上下文或无限检索刷准确率。
- 用 with/without history 验证任务依赖:构建评测集时,删除相关历史后任务应无法完成,才能确认评测的是 memory 模块,而非 prompt 推理或通用能力。
看哪里与用什么:面向长期对话记忆问答的检索-定位-生成框架
🧭 长时对话记忆QA · RAG
University of Electronic Science and Technology of China, Chengdu, China · Institute of Information Engineering, Chinese Academy of Sciences, Beijing, China · School of Cyber Security, University of Chinese Academy of Sciences, Beijing, China · MiLM Plus, Xiaomi Inc., China · State Key Laboratory of Internet Architecture, Tsinghua University, Beijing, China
提出MemLoc框架,通过多粒度检索、证据定位与位置ID引导生成,解决长期对话记忆问答中的碎片化与噪声问题
📌 工作参考价值(4 点)
- 借鉴多粒度记忆单元与图路由:在用户长期行为序列建模(如电商会话历史)中,将 session 按不同时间粒度/主题切分为多粒度单元,用图结构建模跨会话依赖,配合熵基粒度选择,可提升对长周期用户兴趣的召回精度,避免只依赖全局 embedding。
- 引入证据定位层压缩上下文:在 RAG 生成前增加一个“定位器”,从检索到的多个文档或历史记录中抽取关键片段并重排,输出轻量位置 ID 而非全文,能显著降低无关噪声干扰,缓解 lost-in-the-middle 效应,可复用于客服对话摘要、用户评论分析等场景。
- SHPO 训练技巧:用“自反思提示策略优化”训练定位器,即让模型生成推理过程并依据反馈调整,可将此方法用于训练业务中的证据提取/重排模块,提升定位精度。
- 工程实现上,位置 ID 作为 grounding 信号比直接拼接原文更省 token,同时保留原文索引方便回溯,适合在低延迟 Agent 系统中部署。
规则记忆:对话代理的主动规则归纳与推理
🧭 Agent 长对话记忆规则化推理 ★ 深度解读
Sun Yat-sen University · The Hong Kong University of Science and Technology (Guangzhou) · Shenzhen Institute of Computing Sciences · The Hong Kong Polytechnic University · Tsinghua University
将对话历史归纳为自然语言 Horn 子句规则,用 perplexity 一致性过滤并指导证据召回与推理,显著提升长对话 QA 准确率
📌 工作参考价值(4 点)
- 从用户历史交互中归纳行为规则(如“用户买过 A 后常会买 B”),作为可复用推理模板,可指导召回和排序,缓解语义鸿沟。
- RPC 验证机制可用于任何 LLM 生成的规则/知识,通过 perplexity 降低评估支持度,过滤幻觉和过泛化规则。
- 将 Horn 子句作为推理骨架,与事实分离,可在推荐解释或对话式推荐中提供显式逻辑链,增强可信度。
- 工程上可以将事实存储与规则存储分层,规则层承担“抽象先验”,在查询时先激活规则再召回事实,降低无关噪声。
StreamTTT:在流式视觉语言模型中协调实时感知与长期记忆
🧭 流式视觉语言模型 · 快速权重记忆
National University of Singapore · Karlsruhe Institute of Technology
提出StreamTTT将长程历史写入在线更新的快速权重,缓解流式VLM感知与记忆的权衡
📌 工作参考价值(4 点)
- 长期记忆外部化:把长程历史压缩到在线更新的快速权重(fast weights)中,避免全部塞入Transformer上下文造成注意力稀释,类似推荐系统中将用户长期兴趣建模在外部参数,短期会话保持滑动窗口。
- 滑动KV cache只留近期证据:在实时推荐/流式用户行为建模中,可以只保留最近交互的KV缓存,将长历史沉淀到可更新的小网络,实现低延迟实时推理。
- 在线更新参数替代全量缓存:快速权重在线更新机制类似TTT,对用户兴趣漂移建模可尝试用小参数在线学习历史,避免维护超长序列。
- 混合训练数据构造:联合离线长视频QA与实时QA训练,启发在电商推荐中混合长期历史序列和实时行为数据进行联合优化,提升长期记忆与实时感知的平衡。
RUMBA:面向长期对话记忆的细粒度俄语评估基准
🧭 长期记忆与对话系统诊断评估
DAIMLD
提出多维度诊断性长期记忆基准 RUMBA,涵盖俄语及英文,细粒度分解问题类型以分析记忆机制薄弱点
📌 工作参考价值(4 点)
- 记忆模块评估框架可复用:在构建个性化推荐或客服 Agent 的记忆模块时,直接借鉴 RUMBA 的细粒度提问分类(语义类型、会话范围、时序推理、时间表达明确性),设计针对性测试集,暴露模型在跨 Session 信息整合、偏好更新与遗忘方面的短板。
- 时序推理诊断切片:电商场景中用户偏好随时间变化(如兴趣漂移、短期促销影响),利用基准中的 temporal reasoning 切片,检验模型是否能正确区分陈旧信息与最新意图,优化记忆更新与淘汰策略。
- 多语言对齐下的英语子集可直接利用:论文提供对齐的英语子集,可以立即用于评估现有英语对话推荐系统的长期记忆能力,无需额外标注,快速定位检索与推理瓶颈。
- 记忆机制选型参考:论文对比不同记忆实现(如 KV cache、RAG、上下文打包等)在不同问题切片下的表现,结论可指导在资源与延迟约束下选择更适合电商场景的记忆架构。
MEMPROBE:通过隐藏用户状态恢复审计 Agent 长期记忆
🧭 Agent长期记忆的可审计评估 ★ 深度解读
University of Illinois Chicago · KU Leuven · UC San Diego
将 Agent 记忆视为可审计产物,从遗留记忆重建隐藏用户状态,直接量化记忆质量
📌 工作参考价值(4 点)
- 恢复审计评估:对电商客服、推荐对话等 Agent 系统,定期从记忆库中重构已知用户属性(如偏好、历史事实),与真实值比对,而非仅看下游任务指标,直接暴露记忆质量。
- 分离写入与检索诊断:采用“全量导出(dump_all) vs 系统 top-k 检索”的双模式对比,快速定位是记忆写入遗漏还是检索索引不足,指导优化写入策略或检索模块。
- 强化情景记忆绑定:针对用户单次关键交互(如退货纠纷原因),要求记忆系统不仅存储事件表面,还要保留事件与后果的因果链,提升后续个性化推荐的上下文深度。
- 检索感知的整合策略:在写入时即考虑后续检索场景,将原始对话转化为简洁、可检索的结构化摘要,确保关键偏好能在有限的 top-k 召回中命中,避免“存储了却拿不出”的困境。
Nous: 面向长期 Agent 记忆的预测世界模型
🧭 Agent长期记忆 · 预测世界模型
Indian Institute of Technology Ropar
基于信息论惊喜度和贝叶斯更新,用概率分布代替事实存储,实现Agent记忆的自然遗忘与身份解析。
📌 工作参考价值(4 点)
- 用概率分布跟踪用户/商品属性变化:在电商推荐Agent中,每个用户偏好或商品属性可维护一个分类分布,新交互通过贝叶斯更新增量调整belief,避免定期全量重建用户画像。
- 惊喜度指标驱动重要记忆保留:仅当观察的信息量$S=-\log_2 P$超过阈值时才记录“delta”,可自动过滤噪声信号,降低记忆存储开销,适配高频交互场景。
- 自然遗忘机制处理数据时效性:分布未获新证据时熵增向均匀分布收敛,自动淘汰过时信息,无需人为设计衰减规则,利于动态环境下的推荐策略调整。
- 轻量级实现,无外部向量库依赖:整套记忆逻辑基于闭式概率更新,不引入向量数据库或图谱引擎,易于集成到已有Agent管线,降低系统复杂度。
RHELM:真实、异构、演化的长期记忆评测基准
🧭 LLM长期记忆评估基准 ★ 深度解读
Renmin University of China · Microsoft
提出LOOP模块驱动动态多源对话,定义27项记忆特征,揭示LLM在真实场景中的严重记忆缺陷
📌 工作参考价值(4 点)
- 用户画像动态演化机制:LOOP模块的“规划-推演-演化-修剪”循环可复用于电商Agent的用户画像更新,通过概率化正面/负面结果推演,使对话长期一致且状态动态演变,避免画像僵化。
- 异构记忆融合设计:借鉴RHELM将对话流与外部文档(报告、邮件)在时间线上对齐的做法,在推荐或客服系统中整合多源信息(用户聊天、浏览记录、工单),提升对用户全维理解。
- 误导查询压力测试:引入“记忆条件误导查询”维度,主动构造与用户历史状态冲突的请求,检测模型是否盲目遵循指令。可移植到电商Agent的意图冲突检测,避免对已退货商品继续推荐或执行矛盾操作。
- Verifier辅助数据质检:在合成训练或评估数据时,采用分阶段Verifier自动校验语义一致性,可降低人工成本并保障数据质量,适合大规模生成式推荐场景的数据管线。